Huyện Kông Chro được thành lập theo Quyết định số 96-HĐBT ngày 30 tháng 5 năm 1988 của Hội đồng Bộ trưởng trên cơ sở chia tách từ phần đất phía nam của huyện An Khê, bao gồm 8 xã: An Trung, Chơ Long, Chư Krey, Đắk Sông, Sró, Ya Ma, Yang Nam, Yang Trung thuộc huyện An Khê cũ (nay là thị xã An Khê và huyện Đắk Pơ); cùng thời điểm này, tách các làng Đe Nghe Lớn và Đe Nghe Nhỏ của xã Ya Ma và các làng Hlektu, Tong và Pyang của xã Yang Trung để thành lập thị trấn Kong Chro (thị trấn huyện lỵ).

Ngày 6 tháng 12 năm 1990:

• Chia xã An Trung thành 2 xã lấy tên là xã An Trung và Kông Yang
• Chia xã Ya Ma thành 2 xã lấy tên là xã Ya Ma và xã Đắk Tơ Pang.

Ngày 16 tháng 2 năm 2005, thành lập xã Đắk Pling trên cơ sở 18.238 ha diện tích tự nhiên và 2.078 nhân khẩu của xã Đăk Sông.

Ngày 21 tháng 4 năm 2006:

• Thành lập xã Đắk Pơ Pho trên cơ sở 5.305 ha diện tích tự nhiên và 2.054 nhân khẩu của xã Yang Trung
• Thành lập xã Đắk Kơ Ning trên cơ sở 3.553 ha diện tích tự nhiên và 740 nhân khẩu của xã Yang Nam, 9.869,20 ha diện tích tự nhiên và 1.503 nhân khẩu của xã Sró.